El año 1555, no se sabe exactamente, si por accidente o porque la obra no le parecía bien al autor, la rompió en diversos trozos. Explica Vasari:
Quizá porque la piedra era dura y estaba llena de esmeril y el cincel sacaba chispas, o quizá por su autocrítica severa, no estaba nunca contento con nada de lo que hacía... Tiberio Calcagni le preguntó por qué había roto la Piedad y se habían perdido así todos sus maravillosos esfuerzos. Miguel Ángel le respondió que una de las razones era porque su criado le había estado importunando con sus sermones diarios para que la acabase, y también porque se había roto una pieza del brazo de la Madonna. Y todo esto dijo, así como otras desgracias, como que había descubierto una fisura en el mármol, habiéndole hecho odiar la obra, había perdido la paciencia y la había roto.